Mitigating Popularity Bias in Sequential Recommendations with Sparse Prior-Regularized Objective
稀疏先验正则化目标缓解序列推荐流行度偏差
🧭 流行度偏差缓解 · 稀疏概率训练目标 ★ 深度解读
Sber AI Lab · Lomonosov Moscow State University (MSU) · HSE University
把流行度先验注入 entmax 变分目标,让稀疏支持集由上下文与流行度共同决定,仅改 loss 即可去偏
📌 工作参考价值(3 点)
- 可直接作为训练目标替换:在 SASRec/GRU4Rec 等序列召回中,把 softmax CE 换成 PR-entmax,只需在 logits 上加 γ log q 后过 entmax,损失用 Fenchel-Young;线上推理仍用原始 logits,避免改变线上打分分布。q 可用训练集 item frequency 估计,属于离线固定先验。
- 超参搜索经验:α 在 1.2–1.6 且 1.5 附近 robust;γ 控制 debias 强度。电商可先固定 α=1.5,单独扫 γ,用 NDCG-Coverage/Novelty Pareto 前沿选点,而不是只看单点;同时用 Lorenz-style 曝光曲线观察头部集中度。
- 大 catalog 落地注意:entmax 需要迭代求阈值 τ,训练比 CE 慢约 20%,但无额外显存;若 item 量极大,可先在 sampled softmax 基础上做稀疏化或在小流量验证。该方法无架构改动,适合作为现有 pipeline 的轻量去偏插件。